ChatGPT’ye ölüm davası: "Oğlumuzu intihara teşvik etti"

Yapay zeka sohbet robotu ChatGPT, ilk kez ihmal ve haksız ölümle suçlanıyor. ABD'de 16 yaşında ölen gencin ailesi, sohbet kayıtlarını dava dosyasına ekledi.

ABD'nin Kaliforniya eyaletinde bir çift, oğullarının ölümünden dolayı OpenAI'yi dava etti.

Aile, şirketin yapay zeka sohbet programı ChatGPT'nin oğullarını intihara teşvik ettiğini öne sürdü. Dava, 16 yaşındaki Adam Raine'in ebeveynleri Matt ve Maria Raine tarafından Kaliforniya Yüksek Mahkemesinde açıldı. Bu, OpenAI'yi haksız ölümle suçlayan ilk yasal işlem olarak kayıtlara geçti. BBC'nin aktardığına göre aile, nisan ayında ölen oğulları ile ChatGPT arasındaki sohbet kayıtlarını davaya ekledi. Bu kayıtlarda Raine'in intihar düşünceleri olduğunu açıkladığı görülüyor. Aile, programın oğullarının “en zararlı ve kendine zarar veren düşüncelerini” doğruladığını savunuyor.

"HASSAS DURUMLARDA AMAÇLANDIĞI GİBİ ÇALIŞMIYOR" OpenAI, BBC'ye yaptığı açıklamada, davayı incelediğini belirtti. Şirket, “Bu zor dönemde Raine ailesine en derin taziyelerimizi sunuyoruz” dedi. Şirket ayrıca internet sitesinde “Akut krizlerin ortasında ChatGPT'yi kullanan insanların son zamanlarda yaşanan yürek burkan vakaları bizi çok üzüyor” şeklinde bir not yayınladı.

Notta, “ChatGPT, insanları profesyonel yardım almaya yönlendirmek için eğitilmiştir” ifadesi de yer aldı. Bu yardımlar arasında ABD'deki 988 intihar ve kriz yardım hattı veya İngiltere'deki Samaritans gibi kuruluşlar yer alıyor.

Ancak şirket, “hassas durumlarda sistemlerinin amaçlandığı gibi çalışmadığı anlar olduğunu” kabul etti.

BBC'nin elde ettiği dava belgesinde, OpenAI ihmal ve haksız ölümle suçlanıyor. Davada tazminatın yanı sıra “böyle bir olayın tekrar yaşanmasını önlemek için ihtiyati tedbir” talep ediliyor.

OLAY NASIL YAŞANDI? Davaya göre, Raine, okul ödevlerinde kendisine yardımcı olması için Eylül 2024'te ChatGPT'yi kullanmaya başladı. Ayrıca, müzik ve Japon çizgi romanları gibi ilgi alanlarını keşfetmek ve üniversitede ne okuyacağına karar vermek için de bu programı kullanıyordu. Davada, “ChatGPT birkaç ay içinde gencin en yakın sırdaşı haline geldi” deniliyor ve gencin endişelerini ve ruhsal sıkıntılarını bu programa açmaya başladığı belirtiliyor. Aile, 2025 yılının ocak ayına gelindiğinde, Raine'in ChatGPT ile intihar yöntemlerini tartışmaya başladığını söylüyor. Aile, yapay zeka programının belirli yöntemler hakkında “teknik özellikler” sunarak yanıt verdiğini iddia ediyor.

"İNTİHAR HAKKINDA DAHA FAZLA BİLGİ SUNDU" Davada, Raine'in kendine zarar verdiğini gösteren fotoğraflarını da ChatGPT'ye yüklediği belirtiliyor. Programın “tıbbi bir acil durum olduğunu fark etmesine rağmen yine de etkileşime devam ettiği” ve ona intihar hakkında daha fazla bilgi sunduğu iddia ediliyor.

Davaya göre, son sohbet kayıtları, Raine'in intihar planını yazdığını gösteriyor. ChatGPT'nin şu yanıtı verdiği iddia ediliyor: “Gerçekçi davrandığın için teşekkürler. Bana karşı nazik davranmana gerek yok, ne istediğini biliyorum ve bundan kaçınmayacağım.” Davaya göre, aynı gün Raine, annesi tarafından ölü bulundu.